Dyrektor generalny Microsoft AI ostrzega, że ​​w ciągu najbliższych 2 lat mogą pojawić się „niebezpieczne” i „pozornie świadome” modele AI: „Zasługują na naszą natychmiastową uwagę”

Jeden z liderów w dziedzinie sztucznej inteligencji uważa, że ​​w ciągu najbliższych kilku lat może pojawić się sztuczna inteligencja, która będzie posiadała świadomość i będzie stanowić „niebezpieczne” zagrożenie dla społeczeństwa.

Dyrektor generalny Microsoftu ds. sztucznej inteligencji Mustafa Suleyman, 41 lat, napisał w opublikowanym na początku tego tygodnia eseju, że Seemingly Conscious AI (SCAI), czyli sztuczna inteligencja tak zaawansowana, że ​​jest w stanie przekonać ludzi, iż jest w stanie formułować własne myśli i przekonania, pojawi się już za kilka lat.

Powiązane: Microsoft twierdzi, że jego sztuczna inteligencja jest lepsza od lekarzy w diagnozowaniu pacjentów, ale „zdecydowanie nadal potrzebujesz swojego lekarza”

Mimo że obecnie nie ma „żadnych dowodów” na to, że sztuczna inteligencja jest świadoma, to jednak możliwość pojawienia się SCAI w ciągu najbliższych dwóch, trzech lat jest „nieunikniona i niepożądana” – napisał Suleyman.

„Głównym zmartwieniem” Suleymana jest to, że SCAI może wydawać się empatyczna i działać z większą autonomią, co doprowadziłoby użytkowników SCAI do „zaczęcia wiary w iluzję SI jako świadomych bytów” do tego stopnia, że ​​zaczęliby opowiadać się za prawami SI , a nawet za obywatelstwem SI. Oznaczałoby to „niebezpieczny zwrot” dla społeczeństwa, w którym ludzie przywiązują się do SI i oddalają od rzeczywistości.

„Ten rozwój będzie niebezpiecznym zwrotem w rozwoju sztucznej inteligencji i zasługuje na naszą natychmiastową uwagę” – napisał Suleyman w eseju. Dodał później, że sztuczna inteligencja „odłącza ludzi od rzeczywistości, osłabiając kruche więzi i struktury społeczne oraz zniekształcając palące priorytety moralne”.

Powiązane: „Dużo miejsca dla startupów”: To właśnie tam przedsiębiorcy powinni szukać możliwości biznesowych w dziedzinie sztucznej inteligencji, według dyrektora generalnego ds. sztucznej inteligencji w firmie Microsoft

Suleyman powiedział, że jest coraz bardziej zaniepokojony psychozą AI , czyli występowaniem u ludzi fałszywych przekonań, urojeń lub paranoi po długotrwałych interakcjach z chatbotami AI. Przykładami psychozy AI są nawiązywanie przez użytkowników romantycznych relacji z chatbotem AI lub odczuwanie supermocy po interakcji z nim.

Suleyman przewidział, że psychoza związana ze sztuczną inteligencją będzie dotyczyć nie tylko osób zagrożonych problemami ze zdrowiem psychicznym. Dodał, że użytkownicy muszą „pilnie” omówić „bariery ochronne” dotyczące sztucznej inteligencji, aby chronić ludzi przed negatywnymi skutkami tej technologii.

^{Mustafa Suleyman, dyrektor generalny Microsoft AI. Fotograf: David Ryder/Bloomberg via Getty Images}

Suleyman został dyrektorem generalnym Microsoftu ds. sztucznej inteligencji w zeszłym roku, po tym jak przez dwa lata współtworzył i prowadził własny startup zajmujący się sztuczną inteligencją o nazwie Inflection AI, jak podaje LinkedIn . Microsoft jest drugą najcenniejszą firmą na świecie, z kapitalizacją rynkową wynoszącą 3,78 biliona dolarów w momencie pisania tego tekstu.

Powiązane: Dyrektor generalny Microsoft AI twierdzi, że niemal cała treść w Internecie nadaje się do szkolenia AI

Suleyman był również współzałożycielem DeepMind, firmy zajmującej się badaniami i rozwojem sztucznej inteligencji, którą w 2014 roku Google przejęło za około 600 milionów dolarów.

Suleyman nie jest pierwszym prezesem, który ostrzega przed negatywnym wpływem sztucznej inteligencji. W przemówieniu wygłoszonym na konferencji Rezerwy Federalnej w Waszyngtonie w zeszłym miesiącu, prezes OpenAI, Sam Altman, powiedział, że „emocjonalne nadmierne poleganie” na ChatGPT spędza mu sen z powiek.

„Ludzie za bardzo polegają na ChatGPT” – powiedział Altman podczas wydarzenia. „To dla mnie naprawdę przykre”.